Trước đây, Nhã Nam là một xã thuộc huyện Tân Yên.

Ngày 20 tháng 2 năm 2003, Chính phủ ban hành Nghị định 16/2003/NĐ-CP[1]. Theo đó, thành lập thị trấn Nhã Nam trên cơ sở 63,96 ha diện tích tự nhiên và 3.363 người của xã Nhã Nam; 63,20 ha diện tích tự nhiên và 620 người của xã An Dương.

Sau khi thành lập, thị trấn Nhã Nam có 127,16 ha diện tích tự nhiên và 3.983 người. Xã Nhã Nam còn lại 350,45 ha diện tích tự nhiên và 3.847 người.

Ngày 21 tháng 11 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 813/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp xã thuộc tỉnh Bắc Giang (nghị quyết có hiệu lực từ ngày 1 tháng 1 năm 2020)[3]. Theo đó, sáp nhập toàn bộ 4,28 km² diện tích tự nhiên và 5.027 người của xã Nhã Nam vào thị trấn Nhã Nam.

Sau khi điều chỉnh địa giới hành chính, thị trấn Nhã Nam có diện tích 5,60 km², dân số là 8.200 người.